Skyhawk được Ed Heinemann của hãng Douglas thiết kế nhằm đáp ứng yêu cầu của Hải quân Hoa Kỳ cần có một máy bay cường kích phản lực nhằm thay thế chiếc A-1 Skyraider. Heinemann hướng về một thiết kế tối thiểu về kích thước, trọng lượng và độ phức tạp. Kết quả là một máy bay cường kích với trọng lượng chỉ bằng nửa tiêu chuẩn do Hải quân đưa ra và cánh nhỏ đến mức không cần gập lại khi xếp đỗ trên tàu sân bay. Không lâu sau, chiếc Skyhawk nhỏ bé được mang những biệt danh "Scooter," "Bantam Bomber," "Tinker Toy Bomber," và do đặc tính nhanh nhẹn của nó, "Heinemann's Hot-Rod."

Thiết kế mang đặc điểm chung sau Thế chiến II với cánh tam giác gắn thấp, 3 bánh đáp và một động cơ duy nhất phía sau với cửa hút gió hai bên thân. Cánh đuôi có dạng chữ thập, với cánh ổn định ngang gắn trên thân. Vũ khí bao gồm 2 khẩu pháo 20 mm Colt Mk 12 gắn ở gốc cánh và có 200 quả đạn cho mỗi khẩu, và nhiều loại bom, rocket và tên lửa khác nhau được mang trên 1 đế giữa thân và 2 đế trên cánh (sau này tăng lên 4 đế).

Thiết kế A-4 là một ví dụ tốt của sự đơn giản. Ví dụ như, sự lựa chọn cánh tam giác mang lại tốc độ và độ cơ động, dự trữ nhiên liệu lớn, kích thước nhỏ không đòi hỏi cánh xếp – đánh đổi lại hiệu năng bay đường trường. Các cánh tà trước được thiết kế để tự động hạ xuống ở một tốc độ thích hợp nhờ trọng lực và áp lực không khí, nhờ đó không cần thiết kế động cơ hay ngay cả nút chuyển. Tương tự, hệ thống đáp không choán chỗ trên cánh, chỉ có bánh đáp thu gọn vào thân còn trục đỡ được bọc lại bên dưới cánh. Bản thân cấu trúc cánh có thể nhẹ hơn với cùng độ cứng chắc, và loại bỏ cơ cấu gập cánh càng làm giảm nhẹ hơn. Đây là điều trái ngược lại với thực tế trong thiết kế máy bay: tăng trọng lượng một nơi đòi hỏi gia tăng đối trọng cho cân bằng, lại yêu cầu động cơ mạnh hơn và nặng hơn... thành một vòng lẩn quẩn.

A-4 đi tiên phong trong việc dùng kỹ thuật "buddy" (bạn bè) tự tiếp dầu trên không. Điều này cho phép tiếp dầu các máy bay dùng cùng loại mà không cần máy bay tiếp dầu chuyên dùng, một ưu điểm cho các lực lượng không quân nhỏ hay hoạt động ở những nơi xa xôi. Một chiếc A-4 chỉ định để làm nhiệm vụ tiếp dầu sẽ mang bộ tiếp dầu bao gồm thùng nhiên liệu phụ và vòi tiếp dầu, sẽ không mang vũ khí mà đổ đầy dầu đến tối đa tải trọng và cất cánh trước tiên. Các máy bay làm nhiệm vụ tấn công sẽ mang đầy vũ khí và chỉ đổ một lượng nhiên liệu vừa đủ, và sau khi cất cánh sẽ được tiếp đầy dầu từ chiếc A-4 tiếp dầu thông qua một vòi bên phải trước mũi máy bay. Giờ đây nó sẽ xuất kích với đầy vũ khí và đầy nhiên liệu. Dù kỹ thuật này ít khi được dùng đến trong quân đội Hoa Kỳ sau sự xuất hiện của máy bay tiếp dầu KA-3 Skywarrior chuyên dùng, chiếc F/A-18E/F Super Hornet vẫn có tính năng này dự phòng việc thiếu hụt máy bay tiếp dầu chuyên dùng trong tương lai.

A-4 cũng được thiết kế để có thể đáp khẩn cấp, trong trường hợp hư hỏng bộ phận thủy lực, bằng hai thùng dầu phụ gần như luôn được mang hai bên cánh. Hạ cánh như thế chỉ gây những hư hại nhỏ cho mũi máy bay có thể sửa chữa trong vòng 1 giờ.

Hải quân đã ký kết hợp đồng đặt hàng vào ngày 12 tháng 6 năm 1952, và kiểu mẫu thử nghiệm đầu tiên bay lần đầu vào ngày 22 tháng 6 năm 1954. Việc giao hàng cho Hải quân và Thủy quân Lục chiến Mỹ được thực hiện vào cuối năm 1956.

Skyhawk được tiếp tục sản xuất cho đến năm 1979, với tổng cộng 2.960 máy bay, bao gồm 555 chiếc 2 chỗ dành cho huấn luyện.